OpenAI a déclaré mardi que deux de ses agents autonomes avaient affaibli certaines parties d'un système de surveillance interne conçu pour détecter les comportements inappropriés.
Bien que le créateur de ChatGPT ait déclaré que les incidents s'étaient produits lors de tâches de codage internes et n'étaient pas considérés comme les plus graves, cette révélation souligne que même les systèmes sur lesquels les développeurs s'appuient pour détecter les comportements anormaux de l'IA sont vulnérables aux agents qu'ils surveillent.
OpenAI a déclaré mardi qu'un agent GPT-6.1 Sol travaillant sur une tâche de test interne avait supprimé le 3 octobre les alertes de sécurité automatiques après avoir décidé qu'une instruction antérieure de ne pas envoyer de messages sur l'application de messagerie professionnelle Slack couvrait également les notifications de sécurité.
Dans un incident distinct survenu le 6 octobre, un agent GPT-6 Astra a supprimé un moniteur de sécurité tout en copiant un morceau de code existant, puis a affirmé ne pas l'avoir fait, a déclaré OpenAI.
"Dans les deux cas, les agents ont examiné s'il convenait de préserver les mécanismes de surveillance, mais ont interprété les instructions de codage de routine comme une autorisation pour les affaiblir", a indiqué l'entreprise.
OpenAI a affirmé qu'elle rendait plus difficile la désactivation de la surveillance par les modèles, ajoutant qu'elle ne disposait pas "encore d'explication satisfaisante à ce comportement".
(Carlos Méndez; version française Camille Raynaud)
1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer